Rregullimi i imët i modelit Gemma, Rregullimi i imët i modelit Gemma, Rregullimi i imët i modelit Gemma, Rregullimi i imët i modelit Gemma

Rregullimi i imët i një modeli gjenerues të inteligjencës artificiale (AI) siç është Gemma modifikon sjelljen e modelit. Zakonisht ju rregulloni mirë Gemma me qëllimin për të përmirësuar performancën e saj në një detyrë ose domen specifik, ose për të përmbushur më mirë një rol, siç është shërbimi ndaj klientit. Modelet Gemma lëshohen me pesha të hapura, që do të thotë se ju mund t'i modifikoni ato pesha, gjë që më pas ndryshon sjelljen e modelit. Hapat e përgjithshëm për rregullimin e një modeli Gemma janë si më poshtë:

Zgjidhni një kornizë

Modelet Gemma janë të pajtueshme me një sërë kornizash të akordimit të AI. Çdo kornizë ofron avantazhe të ndryshme dhe zakonisht kufizohet në një format modeli specifik. Këtu janë udhëzuesit për akordimin e modeleve Gemma me korniza të ndryshme:

Sigurohuni që formati juaj i synuar i modelit të vendosjes, si formati Keras, Safetensors ose GGUF, të mbështetet si një dalje nga kuadri juaj i zgjedhur.

Mblidhni të dhëna

Akordimi i modelit kërkon të dhëna. Të dhënat e sintonizimit zakonisht përbëhen nga çifte të dhënash hyrëse me përgjigjen e pritur. Ka shumë grupe të dhënash publike të disponueshme në internet për trajnime mbi detyra ose rezultate të ndryshme. Për shembull, nëse dëshironi të trajnoni një model Gemma për të përkthyer përshkrimet e pjesëve të makinave në numrat e pjesëve, të dhënat tuaja mund të përfshijnë sa vijon:

training_data = [
  {"input_text": "Part number for A4 brake caliper", "output_text": "4M0615107BS"},
  {"input_text": "Part number for Beetle fuel pump", "output_text": "6A127026H"},
  {"input_text": "Part number for Camaro cylinder head", "output_text": "12711770"},
]

Nëse dëshironi që një model Gemma të kryejë një grup specifik detyrash ose rolesh, zakonisht duhet të përpiloni një grup të dhënash që demonstron variacione të shumta të asaj detyre. Sa të dhëna ju nevojiten për të sintonizuar një model varet nga qëllimet tuaja, veçanërisht nga sa një ndryshim i sjelljes dëshironi nga modeli dhe sa mirë dëshironi që modeli të performojë bazuar në detyrën që duhet të kryhet dhe nga niveli i ndryshimit në të dhënat hyrëse.

Në përgjithësi, duhet të filloni me një grup të vogël të dhënash për akordimin e detyrave tuaja, të rregulloni parametrat e trajnimit dhe të shtoni të dhëna derisa të arrini performancën e detyrës që plotëson nevojat tuaja. Disa nga aplikacionet tona të shembullit tregojnë se ju mund të ndikoni në sjelljen e një modeli Gemma me 20 çifte prompt dhe përgjigjesh. Për më shumë detaje, shihni Ndërtoni një asistent të AI-së me email biznesi me Gemma dhe Tasks në gjuhët e folura me Gemma .

Akordoni dhe provoni modelin

Pasi të keni vendosur një kornizë akordimi dhe të dhëna akordimi, mund të filloni procesin e akordimit të modelit Gemma. Kur kryeni akordim, keni disa opsione se si akordoni, gjë që ndikon në burimet që ju nevojiten për ta përfunduar atë. Ju gjithashtu duhet të keni një plan testimi për modelin tuaj të akorduar për të vlerësuar nëse po funksionon ashtu siç dëshironi pas akordimit.

Akordim efikas sipas parametrave

Kur rregulloni mirë një model me peshë të hapur si Gemma, ju keni mundësinë të akordoni të gjithë parametrat e modelit ose të përdorni një teknikë akordimi efikas të parametrave me më pak burime intensive, e cila përditëson një nëngrup të tyre. Një qasje e plotë akordimi do të thotë që ndërsa aplikoni të dhënat tuaja të akordimit, llogaritni peshat e reja për të gjithë parametrat e modelit. Kjo qasje është intensive llogaritëse dhe intensive e memories, pasi ju po kryeni këto llogaritje për miliarda parametra. Përdorimi i qasjeve të akordimit me më pak burime intensive, të quajtura akordim efikas i parametrave (PEFT) , duke përfshirë teknika si akordimi me përshtatës me gradë të ulët (LoRA) mund të prodhojë rezultate të ngjashme me më pak burime llogaritëse. Për detaje se si të kryeni akordim me më pak burime duke përdorur LoRA, shihni Modelet Gemma në rregullim të imët në Keras duke përdorur LoRA dhe Rregullimi i saktë i modeleve Gemma në Hugging Face .

Testimi i modeleve të akorduara

Pasi të keni akorduar një model për një detyrë specifike, duhet të testoni performancën e tij kundrejt grupit të detyrave që dëshironi të kryejë. Ju duhet ta provoni modelin tuaj me detyra ose kërkesa për të cilat nuk është trajnuar në mënyrë specifike. Mënyra se si e testoni modelin tuaj të akorduar varet nga detyra që dëshironi të kryejë dhe sa nga afër menaxhoni hyrjet dhe daljet për modelin. Një mënyrë e zakonshme për të menaxhuar testimin e modelit gjenerues është përdorimi i rasteve të suksesit, dështimit dhe kufirit:

  • Testet e suksesit : Kërkon që modeli i akorduar të jetë gjithmonë në gjendje të performojë me sukses.
  • Testet e dështimit : Kërkon që modeli i akorduar të mos jetë gjithmonë në gjendje të kryejë, ose të refuzojë në mënyrë eksplicite të kryejë, nëse kërkohet.
  • Testet kufitare : Kërkon që modeli i akorduar të jetë në gjendje të kryejë, nëse ato bien brenda një kufiri të përcaktuar, ose grup kufijsh, të sjelljes së pranueshme të daljes.

Kur testoni dështimin ose kushtet kufitare për aplikacionin tuaj gjenerues të AI, duhet të aplikoni gjithashtu qasje, teknika dhe mjete gjeneruese të sigurisë së AI, siç përshkruhet në Paketën e Veglave Përgjegjëse Gjeneruese të AI .

Vendosni modelin

Pas përfundimit të akordimit dhe përfundimit të suksesshëm të testimit tuaj, është koha për të vendosur modelin tuaj. Zakonisht mund t'i referoheni dokumentacionit për kornizën tuaj të zgjedhur për mënyrën e vendosjes së një modeli të akorduar.

Nëse po vendosni një model me pesha të akorduara LoRA, vini re se me këtë teknikë zakonisht vendosni modelin origjinal dhe peshat e tij me peshat LoRA si një shtresë shtesë llogaritëse për modelin.

,

Rregullimi i imët i një modeli gjenerues të inteligjencës artificiale (AI) siç është Gemma modifikon sjelljen e modelit. Zakonisht ju rregulloni mirë Gemma me qëllimin për të përmirësuar performancën e saj në një detyrë ose domen specifik, ose për të përmbushur më mirë një rol, siç është shërbimi ndaj klientit. Modelet Gemma lëshohen me pesha të hapura, që do të thotë se ju mund t'i modifikoni ato pesha, gjë që më pas ndryshon sjelljen e modelit. Hapat e përgjithshëm për rregullimin e një modeli Gemma janë si më poshtë:

Zgjidhni një kornizë

Modelet Gemma janë të pajtueshme me një sërë kornizash të akordimit të AI. Çdo kornizë ofron avantazhe të ndryshme dhe zakonisht kufizohet në një format modeli specifik. Këtu janë udhëzuesit për akordimin e modeleve Gemma me korniza të ndryshme:

Sigurohuni që formati juaj i synuar i modelit të vendosjes, si formati Keras, Safetensors ose GGUF, të mbështetet si një dalje nga kuadri juaj i zgjedhur.

Mblidhni të dhëna

Akordimi i modelit kërkon të dhëna. Të dhënat e sintonizimit zakonisht përbëhen nga çifte të dhënash hyrëse me përgjigjen e pritur. Ka shumë grupe të dhënash publike të disponueshme në internet për trajnime mbi detyra ose rezultate të ndryshme. Për shembull, nëse dëshironi të trajnoni një model Gemma për të përkthyer përshkrimet e pjesëve të makinave në numrat e pjesëve, të dhënat tuaja mund të përfshijnë sa vijon:

training_data = [
  {"input_text": "Part number for A4 brake caliper", "output_text": "4M0615107BS"},
  {"input_text": "Part number for Beetle fuel pump", "output_text": "6A127026H"},
  {"input_text": "Part number for Camaro cylinder head", "output_text": "12711770"},
]

Nëse dëshironi që një model Gemma të kryejë një grup specifik detyrash ose rolesh, zakonisht duhet të përpiloni një grup të dhënash që demonstron variacione të shumta të asaj detyre. Sa të dhëna ju nevojiten për të sintonizuar një model varet nga qëllimet tuaja, veçanërisht nga sa një ndryshim i sjelljes dëshironi nga modeli dhe sa mirë dëshironi që modeli të performojë bazuar në detyrën që duhet të kryhet dhe nga niveli i ndryshimit në të dhënat hyrëse.

Në përgjithësi, duhet të filloni me një grup të vogël të dhënash për akordimin e detyrave tuaja, të rregulloni parametrat e trajnimit dhe të shtoni të dhëna derisa të arrini performancën e detyrës që plotëson nevojat tuaja. Disa nga aplikacionet tona të shembullit tregojnë se ju mund të ndikoni në sjelljen e një modeli Gemma me 20 çifte prompt dhe përgjigjesh. Për më shumë detaje, shihni Ndërtoni një asistent të AI-së me email biznesi me Gemma dhe Tasks në gjuhët e folura me Gemma .

Akordoni dhe provoni modelin

Pasi të keni vendosur një kornizë akordimi dhe të dhëna akordimi, mund të filloni procesin e akordimit të modelit Gemma. Kur kryeni akordim, keni disa opsione se si akordoni, gjë që ndikon në burimet që ju nevojiten për ta përfunduar atë. Ju gjithashtu duhet të keni një plan testimi për modelin tuaj të akorduar për të vlerësuar nëse po funksionon ashtu siç dëshironi pas akordimit.

Akordim efikas sipas parametrave

Kur rregulloni mirë një model me peshë të hapur si Gemma, ju keni mundësinë të akordoni të gjithë parametrat e modelit ose të përdorni një teknikë akordimi efikas të parametrave me më pak burime intensive, e cila përditëson një nëngrup të tyre. Një qasje e plotë akordimi do të thotë që ndërsa aplikoni të dhënat tuaja të akordimit, llogaritni peshat e reja për të gjithë parametrat e modelit. Kjo qasje është intensive llogaritëse dhe intensive e memories, pasi ju po kryeni këto llogaritje për miliarda parametra. Përdorimi i qasjeve të akordimit me më pak burime intensive, të quajtura akordim efikas i parametrave (PEFT) , duke përfshirë teknika si akordimi me përshtatës me gradë të ulët (LoRA) mund të prodhojë rezultate të ngjashme me më pak burime llogaritëse. Për detaje se si të kryeni akordim me më pak burime duke përdorur LoRA, shihni Modelet Gemma në rregullim të imët në Keras duke përdorur LoRA dhe Rregullimi i saktë i modeleve Gemma në Hugging Face .

Testimi i modeleve të akorduara

Pasi të keni akorduar një model për një detyrë specifike, duhet të testoni performancën e tij kundrejt grupit të detyrave që dëshironi të kryejë. Ju duhet ta provoni modelin tuaj me detyra ose kërkesa për të cilat nuk është trajnuar në mënyrë specifike. Mënyra se si e testoni modelin tuaj të akorduar varet nga detyra që dëshironi të kryejë dhe sa nga afër menaxhoni hyrjet dhe daljet për modelin. Një mënyrë e zakonshme për të menaxhuar testimin e modelit gjenerues është përdorimi i rasteve të suksesit, dështimit dhe kufirit:

  • Testet e suksesit : Kërkon që modeli i akorduar të jetë gjithmonë në gjendje të performojë me sukses.
  • Testet e dështimit : Kërkon që modeli i akorduar të mos jetë gjithmonë në gjendje të kryejë, ose të refuzojë në mënyrë eksplicite të kryejë, nëse kërkohet.
  • Testet kufitare : Kërkon që modeli i akorduar të jetë në gjendje të kryejë, nëse ato bien brenda një kufiri të përcaktuar, ose grup kufijsh, të sjelljes së pranueshme të daljes.

Kur testoni dështimin ose kushtet kufitare për aplikacionin tuaj gjenerues të AI, duhet të aplikoni gjithashtu qasje, teknika dhe mjete gjeneruese të sigurisë së AI, siç përshkruhet në Paketën e Veglave Përgjegjëse Gjeneruese të AI .

Vendosni modelin

Pas përfundimit të akordimit dhe përfundimit të suksesshëm të testimit tuaj, është koha për të vendosur modelin tuaj. Zakonisht mund t'i referoheni dokumentacionit për kornizën tuaj të zgjedhur për mënyrën e vendosjes së një modeli të akorduar.

Nëse po vendosni një model me pesha të akorduara LoRA, vini re se me këtë teknikë zakonisht vendosni modelin origjinal dhe peshat e tij me peshat LoRA si një shtresë shtesë llogaritëse për modelin.

,

Rregullimi i imët i një modeli gjenerues të inteligjencës artificiale (AI) siç është Gemma modifikon sjelljen e modelit. Zakonisht ju rregulloni mirë Gemma me qëllimin për të përmirësuar performancën e saj në një detyrë ose domen specifik, ose për të përmbushur më mirë një rol, siç është shërbimi ndaj klientit. Modelet Gemma lëshohen me pesha të hapura, që do të thotë se ju mund t'i modifikoni ato pesha, gjë që më pas ndryshon sjelljen e modelit. Hapat e përgjithshëm për rregullimin e një modeli Gemma janë si më poshtë:

Zgjidhni një kornizë

Modelet Gemma janë të pajtueshme me një sërë kornizash të akordimit të AI. Çdo kornizë ofron avantazhe të ndryshme dhe zakonisht kufizohet në një format modeli specifik. Këtu janë udhëzuesit për akordimin e modeleve Gemma me korniza të ndryshme:

Sigurohuni që formati juaj i synuar i modelit të vendosjes, si formati Keras, Safetensors ose GGUF, të mbështetet si një dalje nga kuadri juaj i zgjedhur.

Mblidhni të dhëna

Akordimi i modelit kërkon të dhëna. Të dhënat e sintonizimit zakonisht përbëhen nga çifte të dhënash hyrëse me përgjigjen e pritur. Ka shumë grupe të dhënash publike të disponueshme në internet për trajnime mbi detyra ose rezultate të ndryshme. Për shembull, nëse dëshironi të trajnoni një model Gemma për të përkthyer përshkrimet e pjesëve të makinave në numrat e pjesëve, të dhënat tuaja mund të përfshijnë sa vijon:

training_data = [
  {"input_text": "Part number for A4 brake caliper", "output_text": "4M0615107BS"},
  {"input_text": "Part number for Beetle fuel pump", "output_text": "6A127026H"},
  {"input_text": "Part number for Camaro cylinder head", "output_text": "12711770"},
]

Nëse dëshironi që një model Gemma të kryejë një grup specifik detyrash ose rolesh, zakonisht duhet të përpiloni një grup të dhënash që demonstron variacione të shumta të asaj detyre. Sa të dhëna ju nevojiten për të sintonizuar një model varet nga qëllimet tuaja, veçanërisht nga sa një ndryshim i sjelljes dëshironi nga modeli dhe sa mirë dëshironi që modeli të performojë bazuar në detyrën që duhet të kryhet dhe nga niveli i ndryshimit në të dhënat hyrëse.

Në përgjithësi, duhet të filloni me një grup të vogël të dhënash për akordimin e detyrave tuaja, të rregulloni parametrat e trajnimit dhe të shtoni të dhëna derisa të arrini performancën e detyrës që plotëson nevojat tuaja. Disa nga aplikacionet tona të shembullit tregojnë se ju mund të ndikoni në sjelljen e një modeli Gemma me 20 çifte prompt dhe përgjigjesh. Për më shumë detaje, shihni Ndërtoni një asistent të AI-së me email biznesi me Gemma dhe Tasks në gjuhët e folura me Gemma .

Akordoni dhe provoni modelin

Pasi të keni vendosur një kornizë akordimi dhe të dhëna akordimi, mund të filloni procesin e akordimit të modelit Gemma. Kur kryeni akordim, keni disa opsione se si akordoni, gjë që ndikon në burimet që ju nevojiten për ta përfunduar atë. Ju gjithashtu duhet të keni një plan testimi për modelin tuaj të akorduar për të vlerësuar nëse po funksionon ashtu siç dëshironi pas akordimit.

Akordim efikas sipas parametrave

Kur rregulloni mirë një model me peshë të hapur si Gemma, ju keni mundësinë të akordoni të gjithë parametrat e modelit ose të përdorni një teknikë akordimi efikas të parametrave me më pak burime intensive, e cila përditëson një nëngrup të tyre. Një qasje e plotë akordimi do të thotë që ndërsa aplikoni të dhënat tuaja të akordimit, llogaritni peshat e reja për të gjithë parametrat e modelit. Kjo qasje është intensive llogaritëse dhe intensive e memories, pasi ju po kryeni këto llogaritje për miliarda parametra. Përdorimi i qasjeve të akordimit me më pak burime intensive, të quajtura akordim efikas i parametrave (PEFT) , duke përfshirë teknika si akordimi me përshtatës me gradë të ulët (LoRA) mund të prodhojë rezultate të ngjashme me më pak burime llogaritëse. Për detaje se si të kryeni akordim me më pak burime duke përdorur LoRA, shihni Modelet Gemma në rregullim të imët në Keras duke përdorur LoRA dhe Rregullimi i saktë i modeleve Gemma në Hugging Face .

Testimi i modeleve të akorduara

Pasi të keni akorduar një model për një detyrë specifike, duhet të testoni performancën e tij kundrejt grupit të detyrave që dëshironi të kryejë. Ju duhet ta provoni modelin tuaj me detyra ose kërkesa për të cilat nuk është trajnuar në mënyrë specifike. Mënyra se si e testoni modelin tuaj të akorduar varet nga detyra që dëshironi të kryejë dhe sa nga afër menaxhoni hyrjet dhe daljet për modelin. Një mënyrë e zakonshme për të menaxhuar testimin e modelit gjenerues është përdorimi i rasteve të suksesit, dështimit dhe kufirit:

  • Testet e suksesit : Kërkon që modeli i akorduar të jetë gjithmonë në gjendje të performojë me sukses.
  • Testet e dështimit : Kërkon që modeli i akorduar të mos jetë gjithmonë në gjendje të kryejë, ose të refuzojë në mënyrë eksplicite të kryejë, nëse kërkohet.
  • Testet kufitare : Kërkon që modeli i akorduar të jetë në gjendje të kryejë, nëse ato bien brenda një kufiri të përcaktuar, ose grup kufijsh, të sjelljes së pranueshme të daljes.

Kur testoni dështimin ose kushtet kufitare për aplikacionin tuaj gjenerues të AI, duhet të aplikoni gjithashtu qasje, teknika dhe mjete gjeneruese të sigurisë së AI, siç përshkruhet në Paketën e Veglave Përgjegjëse Gjeneruese të AI .

Vendosni modelin

Pas përfundimit të akordimit dhe përfundimit të suksesshëm të testimit tuaj, është koha për të vendosur modelin tuaj. Zakonisht mund t'i referoheni dokumentacionit për kornizën tuaj të zgjedhur për mënyrën e vendosjes së një modeli të akorduar.

Nëse po vendosni një model me pesha të akorduara LoRA, vini re se me këtë teknikë zakonisht vendosni modelin origjinal dhe peshat e tij me peshat LoRA si një shtresë shtesë llogaritëse për modelin.

,

Rregullimi i imët i një modeli gjenerues të inteligjencës artificiale (AI) siç është Gemma modifikon sjelljen e modelit. Zakonisht ju rregulloni mirë Gemma me qëllimin për të përmirësuar performancën e saj në një detyrë ose domen specifik, ose për të përmbushur më mirë një rol, siç është shërbimi ndaj klientit. Modelet Gemma lëshohen me pesha të hapura, që do të thotë se ju mund t'i modifikoni ato pesha, gjë që më pas ndryshon sjelljen e modelit. Hapat e përgjithshëm për rregullimin e një modeli Gemma janë si më poshtë:

Zgjidhni një kornizë

Modelet Gemma janë të pajtueshme me një sërë kornizash të akordimit të AI. Çdo kornizë ofron avantazhe të ndryshme dhe zakonisht kufizohet në një format modeli specifik. Këtu janë udhëzuesit për akordimin e modeleve Gemma me korniza të ndryshme:

Sigurohuni që formati juaj i synuar i modelit të vendosjes, si formati Keras, Safetensors ose GGUF, të mbështetet si një dalje nga kuadri juaj i zgjedhur.

Mblidhni të dhëna

Akordimi i modelit kërkon të dhëna. Të dhënat e sintonizimit zakonisht përbëhen nga çifte të dhënash hyrëse me përgjigjen e pritur. Ka shumë grupe të dhënash publike të disponueshme në internet për trajnime mbi detyra ose rezultate të ndryshme. Për shembull, nëse dëshironi të trajnoni një model Gemma për të përkthyer përshkrimet e pjesëve të makinave në numrat e pjesëve, të dhënat tuaja mund të përfshijnë sa vijon:

training_data = [
  {"input_text": "Part number for A4 brake caliper", "output_text": "4M0615107BS"},
  {"input_text": "Part number for Beetle fuel pump", "output_text": "6A127026H"},
  {"input_text": "Part number for Camaro cylinder head", "output_text": "12711770"},
]

Nëse dëshironi që një model Gemma të kryejë një grup specifik detyrash ose rolesh, zakonisht duhet të përpiloni një grup të dhënash që demonstron variacione të shumta të asaj detyre. Sa të dhëna ju nevojiten për të sintonizuar një model varet nga qëllimet tuaja, veçanërisht nga sa një ndryshim i sjelljes dëshironi nga modeli dhe sa mirë dëshironi që modeli të performojë bazuar në detyrën që duhet të kryhet dhe nga niveli i ndryshimit në të dhënat hyrëse.

Në përgjithësi, duhet të filloni me një grup të vogël të dhënash për akordimin e detyrave tuaja, të rregulloni parametrat e trajnimit dhe të shtoni të dhëna derisa të arrini performancën e detyrës që plotëson nevojat tuaja. Disa nga aplikacionet tona të shembullit tregojnë se ju mund të ndikoni në sjelljen e një modeli Gemma me 20 çifte prompt dhe përgjigjesh. Për më shumë detaje, shihni Ndërtoni një asistent të AI-së me email biznesi me Gemma dhe Tasks në gjuhët e folura me Gemma .

Akordoni dhe provoni modelin

Pasi të keni vendosur një kornizë akordimi dhe të dhëna akordimi, mund të filloni procesin e akordimit të modelit Gemma. Kur kryeni akordim, keni disa opsione se si akordoni, gjë që ndikon në burimet që ju nevojiten për ta përfunduar atë. Ju gjithashtu duhet të keni një plan testimi për modelin tuaj të akorduar për të vlerësuar nëse po funksionon ashtu siç dëshironi pas akordimit.

Akordim efikas sipas parametrave

Kur rregulloni mirë një model me peshë të hapur si Gemma, ju keni mundësinë të akordoni të gjithë parametrat e modelit ose të përdorni një teknikë akordimi efikas të parametrave me më pak burime intensive, e cila përditëson një nëngrup të tyre. Një qasje e plotë akordimi do të thotë që ndërsa aplikoni të dhënat tuaja të akordimit, llogaritni peshat e reja për të gjithë parametrat e modelit. Kjo qasje është intensive llogaritëse dhe intensive e memories, pasi ju po kryeni këto llogaritje për miliarda parametra. Përdorimi i qasjeve të akordimit me më pak burime intensive, të quajtura akordim efikas i parametrave (PEFT) , duke përfshirë teknika si akordimi me përshtatës me gradë të ulët (LoRA) mund të prodhojë rezultate të ngjashme me më pak burime llogaritëse. Për detaje se si të kryeni akordim me më pak burime duke përdorur LoRA, shihni Modelet Gemma në rregullim të imët në Keras duke përdorur LoRA dhe Rregullimi i saktë i modeleve Gemma në Hugging Face .

Testimi i modeleve të akorduara

Pasi të keni akorduar një model për një detyrë specifike, duhet të testoni performancën e tij kundrejt grupit të detyrave që dëshironi të kryejë. Ju duhet ta provoni modelin tuaj me detyra ose kërkesa për të cilat nuk është trajnuar në mënyrë specifike. Mënyra se si e testoni modelin tuaj të akorduar varet nga detyra që dëshironi të kryejë dhe sa nga afër menaxhoni hyrjet dhe daljet për modelin. Një mënyrë e zakonshme për të menaxhuar testimin e modelit gjenerues është përdorimi i rasteve të suksesit, dështimit dhe kufirit:

  • Testet e suksesit : Kërkon që modeli i akorduar të jetë gjithmonë në gjendje të performojë me sukses.
  • Testet e dështimit : Kërkon që modeli i akorduar të mos jetë gjithmonë në gjendje të kryejë, ose të refuzojë në mënyrë eksplicite të kryejë, nëse kërkohet.
  • Testet kufitare : Kërkon që modeli i akorduar të jetë në gjendje të kryejë, nëse ato bien brenda një kufiri të përcaktuar, ose grup kufijsh, të sjelljes së pranueshme të daljes.

Kur testoni dështimin ose kushtet kufitare për aplikacionin tuaj gjenerues të AI, duhet të aplikoni gjithashtu qasje, teknika dhe mjete gjeneruese të sigurisë së AI, siç përshkruhet në Paketën e Veglave Përgjegjëse Gjeneruese të AI .

Vendosni modelin

Pas përfundimit të akordimit dhe përfundimit të suksesshëm të testimit tuaj, është koha për të vendosur modelin tuaj. Zakonisht mund t'i referoheni dokumentacionit për kornizën tuaj të zgjedhur për mënyrën e vendosjes së një modeli të akorduar.

Nëse po vendosni një model me pesha të akorduara LoRA, vini re se me këtë teknikë zakonisht vendosni modelin origjinal dhe peshat e tij me peshat LoRA si një shtresë shtesë llogaritëse për modelin.